SplunkさんのAWSデータ連携に関する特別ワークショップに参加した!

SplunkさんのAWSデータ連携に関する特別ワークショップに参加した!

10/3にSplunkパートナー向けに開催されたオフライン勉強会イベント『Becoming an AWS Getting Data In MacGayver』に参加してきました。本ブログは、ダイジェスト版として勉強会の様子や概要についてお伝えいたします。
Clock Icon2024.10.04

先月クラスメソッドがSplunkのパートナーとなったということで、10/3にSplunkパートナー向け勉強会のためにSplunkさんオフィスにやってきました!
本ブログでは、勉強会のダイジェスト版としてお伝えしていこうと思います。
ハンズオンでやった内容については、個別のブログで詳しくお伝えできたらと思っていますので、こちらもお楽しみに!

IMG_3150 Large.jpeg

オフィスの入口では、Splunkのポニーのマスコットである 『Butter Cup』 が出迎えてくれます。

IMG_3149 Large.jpeg

勉強会の内容はAWSデータのSplunk取り込みに関するワークショップです。

講師は、AWSとSplunk連携のテックスペシャリストで、APACを担当されている、SplunkのTrav Kaneさんです。
通訳の方もいらっしゃいます。

IMG_3154 Large.jpeg

また、TravさんはT-REXというニックネームもあるようです。w

Screenshot 2024-10-04 at 20.46.18.jpg

AWSでは、AWSの持つ多数のサービスを組み合わせてシステムを組むことができます。
データ取り込みに関しても、システムや要件ごとにいくつかの異なるアーキテクチャをとることができます。
このワークショップトレーニングでは、座学で取り込みパターンごとのメリットデメリットを知り、それぞれのパターンの実装を実際に手を動かしてやってみるという内容になっています。

ワークショップでは、AWSのコンソールSplunkのコンソールを順番に操作していきます。
この勉強会はAWSとSplunkのタイアップでの企画になっており、AWS環境は、AWS Workshop Studioで、Splunk環境はsplunk show(Splunkさんが勉強会などで受講者に払い出したりしている環境)で操作していくかたちになります。

Screenshot 2024-10-04 at 20.55.49.jpg

Screenshot 2024-10-04 at 20.57.11.jpg

AWSコンソールでは、ログの連携のためのリソースの作成、リソース同士の権限の設定になります(一部IAMの設定などはあらかじめ実施されているものもありました)。
Splunkコンソールでは、データインプットの設定になります。

このワークショップのタイトルは 『Becoming an AWS Getting Data In MacGayver』 という名前になっています。 『MacGayver』 という80年代のアメリカでヒットした人気TVドラマで、天才級の知力とエンジニアリングで次々と難題を解決していく様をワークショップで実現していこうという意味が込められているそうです。w

https://ja.wikipedia.org/wiki/MACGYVER/マクガイバー

それではいよいよワークショップのスタートです!

ログ取得の対象となるメジャーなAWSサービスとログ取得のためのAWSサービスの概要のおさらいから始まりました。

  • AWS CloudTrail
  • Amazon SQS
  • Amazon SNS
  • VPCフローログ
  • AWS CloudWatch
  • AWS S3
  • AWS Config

次に *AWSサービス全体 からSplunkにログを連携する際の関連サービスやパスを記載したアーキテクチャになります。
(*実際には他にももっと多くのAWSサービスがあります。サービス全体と書いていますが、あくまで主要なサービスとなります。)

Screenshot 2024-10-04 at 21.07.36.jpg

取り込み部分に焦点を当ててみると、主に3つの取り込み方法に分けられます。プル型で1種類プッシュ型で2種類になります。
まずはこの3パターンを基本として、利用シーンやサービスに応じて考えていけばよいということが分かりました。

Screenshot 2024-10-04 at 21.07.49.jpg

プル型とプッシュ型の違いについてのご説明もいただきました。
プル型は比較的データ量が少なくリアルタイム性の必要がないデータの場合、プッシュ型はデータ量が多くリアルタイム性の必要があるデータが適切かと思います。

Screenshot 2024-10-04 at 21.10.17.jpg

コストではプル(低い)→プッシュ(高い)の傾向にあり、その他にも組織の戦略や、集中ロギングやコンプライアンスを含む個別のセキュリティポリシーを考慮してアーキテクチャを採用する必要があります。

ここまでで基本的な考え方について理解することができました。

ラボは全部で5つありました。

  1. Lab 1 - AWS Add-on (SQS Based-PULL型): EC2メタデータとAWSコンフィグのログを取得する
  2. Lab 2 - HEC (EventBridge PUSH型): Amazon GuardDutyのログを取得する
  3. Lab 3 - HEC (Amazon Data Firehose PUSH型): AWS CloudTrailのログを取得する
  4. Lab 4 - HEC (Amazon Lambda PUSH型): VPC Flowログを取得する
  5. Lab 5 - Security Dashboards: AWSのデータを可視化・分析するSplunkのプレビルドAppを触って確認してみる

こちらのハンズオンの内容については、別のブログでご紹介いたします。

ラボの後には、アドバンスな番外編として、AWS Control Tower環境でのログ取り込みの例をご紹介いただきました。

Screenshot 2024-10-04 at 21.29.27.jpg

さらに、Private Linkを使って、組織のAWS環境からSplunk Cloudに直接データを送信する例、Amazon Connectのデータ取り込みと分析例、Amazon Security Lakeとの連携例としてSplunkの機能 Federated Analytics(プライベートプレビュー)、Splunkに取り込むことなくS3のデータをSplunkから検索をかける Federated Search for Amazon S3 についてもご紹介いただきました。

これは、本当に盛りだくさんです!!
こちらも今後試してブログ掲載させていただきたいと思っています。

まとめ

勉強会を通じて、以下のことを学びました。

  • SplunkへのAWSデータ取り込みパターン
  • 各データ取り込みパターンごとのメリット・デメリット
  • SplunkおよびAWSのデータ取り込みの設定方法
  • 各データ送信アーキテクチャの概算コスト

本ワークショップはパートナー限定での勉強会でしたが、今回学んだことやハンズオンの内容をさらに詳しくわたしたちから皆様にブログでお届けしたいと考えております。

最後に

勉強会の関係者および参加者のみなさんで集合写真を撮っていただきました!

IMG_3173 Large.jpeg

またこの場を通じて、ワークショップの講師であるTrav Kane(T-REX)さん、開催いただいたSplunkおよびAWSの関係者の皆様に御礼申し上げます
次回も活用例を中心にした回や他の続編があるそうです。楽しみにしております!!

IMG_3151_Large_.jpg

この記事をシェアする

facebook logohatena logotwitter logo

© Classmethod, Inc. All rights reserved.